(D)en digital verden – utopi eller dystopi?

Jeppe Fjeldgaard Qvist

2025-09-12

Dagens program

Det digitale samfund

Det, at flere og flere aspekter af vores liv og hverdag digitaliseres, stiller ikke kun store krav til de underliggende systemer, men rejser også mange fundamentale spørgsmål; såvel tekniske som etiske.

Et klassificeringsproblem (falsk positiv).

Et klassificeringsproblem (falsk positiv).

Hvem bærer skylden: Maskinen eller Rafaela, der var “andenpilot”?

Et klassificeringsproblem (falsk positiv).

Al data, der ligger til grund for maskines klassificerings-evner bygger på data som mennesker har haft ansvaret for. Maskiner forholder sig ikke til andet end tal.

Et klassificeringsproblem (falsk positiv).

Derfor kan maskiner ikke være sexistiske eller racistiske. Men der eksisterer (stadig) systematisk sexisme og racisme og disse forhold vil være afspejlet i den data vi træner modeller på.

Dataindsamling og tabsfunktionen: den menneskelige vinkel

Hver gang AI bruges til at træffe en beslutning (alt fra klassifikation til et skak-træk) ligger der menneskebestemte afvejninger bag.

  • Datatype og -omfang: Ægte data eller ideel data (the unicorn)?
  • Definerede opgaver: Maskiner besejrer os, fordi vi beder dem om det. Det er ikke en skjult motivation (Luda, Tay: “thinking about you”).
  • Tabsfunktionen: målet vi bruger til at bestemme, hvor langt maskinen er fra at løse problemet. En grundlæggende menneskebestemt komponent.

Dataindsamling og tabsfunktionen: den menneskelige vinkel

Hver gang AI bruges til at træffe en beslutning (alt fra klassifikation til et skak-træk) ligger der menneskebestemte afvejninger bag.

“Du har en befolkning, hvor 0,5 procent får en alvorlig sygdom, og træner en model til at identificere dem. Modellen opnår hurtigt en høj træfsikkerhed på 99,5 procent, men er ikke i stand til at identificere en eneste af de syge. Hvad er der sket?” (fra Inga Strümke)

Dataindsamling og tabsfunktionen: den menneskelige vinkel

Hver gang AI bruges til at træffe en beslutning (alt fra klassifikation til et skak-træk) ligger der menneskebestemte afvejninger bag.

  • Udviklere bestemmer hvornår en model er færdig.
    • alt fra simpel ML og deep learning handler grundlæggende “bare” om kontinuerlig tilpasning af parametre indtil fejlen er så lille som muligt.
    • Universel approximation: tilnærmelse af den sande funktion og fordeling.
    • Det meste af fremgangen indenfor AI er takket være brute force og enorme mængde data, snarer end vi har formået at putte mere “intellegens” ind i modeller.

Skyggesiderne af det digital samfund


De klassiske:

  • Datasikkerhed
  • Privatliv
  • Rettigheder

De “nye”:

  • Diskrimination og gennemsigtighed [Rettigheder]
  • Klima
  • (Ubegrundet/overdreven optimisme?)

(Data)sikkerhed

  • GDPR: for lidt og for meget?
    • Forskningsarbejde, der ikke må anvendes i praksis.
    • Production af personfølsom data (2018 studie på Facebook data)
    • Antag at de store techvirksomheder ved midst lige så meget om dig, som du selv gør!
    • Giver mere regulering mening, når vi ikke ved hvad der bliver muligt i morgen?

Privatliv

  • Stort set alt hvad vi gør med digitale værktøjer (computer, telefon, tv, SoMe, kort, kreditkort, …) generer data.
    • I praksis er denne data ikke længere anonym. Når der er nok data, er det “nemt” at identificere personer.
    • The privacy paradox.
    • Det meste data er ikke for os, det er om os.